Song Ngọc sinh năm 1943 ở Long Xuyên, An Giang, là anh trai của ca sĩ Kiều Oanh.

Ông viết nhạc từ năm 1957 với bài đầu tay Mưa chiều lúc học trung học ở Sài Gòn. Bút hiệu Song Ngọc là từ ghép chữ lót tên ông và chữ lót của tên một người bạn gái mà ông để ý, do anh của ông (nhạc sĩ Nguyễn Hiền) đặt cho.[2] Ngoài Song Ngọc, ông còn dùng các bút hiệu Hàn Sinh, Nguyên Hà, Hoàng Ngọc Anh, Anh Tuyến.

Song Ngọc là người đầu tiên phổ thơ Nguyên Sa với bài Tiễn đưa nổi tiếng năm 1961. Ông cũng là tác giả của nhiều ca khúc nổi tiếng trước năm 1975: Tiễn đưa, Chiều thương đô thị, Gặp lại cố nhân, Xin gọi nhau là cố nhân, Nó và tôi, Tuổi mùa xuân..., và sau 1975 như: Đàn bà, Hà Nội ngày tháng cũ, Hương đồng gió nội...

Trước năm 1975, ông từng thực hiện 5 cuốn băng nhạc mang tên ông.

1. Song Ngọc 1: Chuyện tình & kỷ niệm
2. Song Ngọc 2: Những ngày xưa yêu dấu
3. Song Ngọc 3: Hoa bướm ngày xưa
4. Song Ngọc 4: Tình yêu & xa cách
5. Song Ngọc Xuân 1974: Mùa xuân hạnh phúc

Giữa năm 1962, ông nhập ngũ khóa 14 trường Bộ Binh Thủ Đức, ra trường phục vụ tại tiểu đoàn Tâm Lý Chiến Dân Sự Vụ (sau đổi thành Chiến tranh Chính trị). Ra trường chủ trương chương trình tạp diễn Song Ngọc ở Đài Truyền hình Việt Nam, chương trình Lính & Tình Thương ở Đài Phát Thanh Quân đội. Đồng thời là Trưởng khối Chiến tranh Chính trị ở Tổng Y Viện Cộng Hòa.

Ông rời Việt Nam từ trước 30 tháng 4 năm 1975, sang Hoa Kỳ trở thành một thương nhân thành đạt, bên cạnh đó vẫn tiếp tục sáng tác.

Ông qua đời vào ngày 14 tháng 10 năm 2018 tại thành phố Houston, bang Texas vì tai biến mạch máu não sau khi nhập viện để điều trị những biến chứng liên quan đến tim và phổi.[3]